टोरंटो विश्वविद्यालय और मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी के वैज्ञानिकों के एक अध्ययन में पाया गया है कि वर्णनात्मक लेबल का उपयोग करके प्रशिक्षित AI सिस्टम संभावित रूप से मनुष्यों की तुलना में अधिक कठोर निर्णय ले सकते हैं। अनुसंधान से पता चलता है कि AI एल्गोरिदम प्रशिक्षण में गंभीर खामियाँ मौजूद हैं, जो आवास, ऋण, सर्जरी आदि के निर्णयों को प्रभावित कर सकती हैं, जिससे मानवता को आपदा हो सकती है। प्रयोग ने कुत्तों की छवियों के डेटा सेट का उदाहरण दिया, जिसमें परिणामों ने दिखाया कि वर्णनात्मक लेबल उल्लंघन करने वाले कुत्तों के खिलाफ न्याय को और अधिक कठोर बनाता है, जिससे सामाजिक अन्याय हो सकता है। एल्गोरिदम पीएचडी आवेदन, नियुक्तियों आदि क्षेत्रों में सामाजिक पूर्वाग्रह को बढ़ा सकते हैं, जिससे असमानता बढ़ सकती है। शोधकर्ता इस समस्या को जल्दी ठीक करने का आग्रह कर रहे हैं।